Anthropic API में नया प्रोम्प्ट कैशिंग फीचर जोड़ा गया है, जिसका उद्देश्य Claude मॉडल के उपयोग अनुभव को अनुकूलित करना है। यह फीचर उपयोगकर्ताओं को API कॉल के बीच सामान्य संदर्भ जानकारी को कैश करने की अनुमति देता है, जिससे लंबे प्रोम्प्ट की लागत और देरी में उल्लेखनीय कमी आती है, जो अधिकतम 90% और 85% तक हो सकती है। वर्तमान में यह Claude3.5Sonnet और Claude3Haiku के सार्वजनिक परीक्षण संस्करण का समर्थन करता है, और भविष्य में इसे Claude3Opus तक बढ़ाने की योजना है। यह संवाद दूतों, कोडिंग सहायक, विशाल दस्तावेजों को संभालने और एजेंट खोजने जैसे परिदृश्यों के लिए उपयुक्त है। प्रोम्प्ट कैशिंग की कीमत निर्धारित की जा रही है।